On the Memorization Behavior of LLMs in Generative Recommendation: Observations, Implications, and Training Strategies
LLM 在生成式推荐中的一跳记忆行为分析与缓解策略 IIRG
🧭 生成式推荐 · 记忆行为与训练策略 ★ 深度解读
KAIST · Sungkyunkwan University · Snap Inc.
发现 LLM 生成式推荐强依赖一跳记忆，性能增益集中于此类用户，提出 IIRG 利用协同与语义邻居生成任务促进物品关系学习，显著提升非记忆受益用户表现
📌 工作参考价值（4 点）
- 诊断一跳记忆倾向：在生成式推荐模型评估中，可计算 top-K 推荐中来自训练集一跳转移邻居的比例，识别模型是否过度依赖表面模式，尤其对于 LLM-based 模型。
- 构造协同邻居与语义邻居作为辅助任务：对于电商或内容推荐，可以基于多跳共现（时间窗口内的 co-purchase）构建协同邻居，基于文本嵌入相似度构建语义邻居，作为 LLM 微调时的额外生成目标，显式注入物品关系知识。
- 区分用户群体进行收益分析：按测试目标物品是否在一跳候选集中，划分“记忆受益用户”与“非记忆受益用户”，分别观察指标，驱动粗排/精排策略差异化设计。
- 适用于多种 ID 形式：IIRG 同时兼容 TID 和 SID，可在现有 Semantic ID 或 Term ID 的生成式推荐框架上直接叠加，无需改变 ID 生成 pipeline，工程改造成本低。